Tiếng Ngô hiện đại có nguồn gốc từ nước Ngô và nước Việt thời Xuân Thu. Hai nước này nằm ở khu vực tỉnh Giang Tô và Chiết Giang hiện nay.

Tiếng Nhật có cách đọc chữ Hán theo âm Go-on (呉音 goon?, pinyin: Wú yīn; Ngô âm) là do dựa theo ngôn ngữ của nước Đông Ngô thời Tam Quốc. Nước Đông Ngô cũng có trung tâm nằm tại khu vực nói tiếng Ngô hiện nay.

Trong lúc Ngũ Hồ tràn vào Trung Nguyên, thân thuộc nhà Tấn bỏ chạy từ phía bắc về phía nam và tái lập nhà Đông Tấn ở thành Kiến Khang (khu vực nói tiếng Ngô). Lúc này ngôn ngữ của dân Tấn (tiếng Tấn hoặc Quan Thoại) có phần lấn át tiếng Ngô.

Một số nhân vật lịch sử nói tiếng Ngô như tiếng mẹ đẻ là: Tùy Dạng Đế, Dạng Mẫn hoàng hậu, Tây Lương Tuyên Đế,..

Thời nhà Thanh, người tiếng Ngô chiếm tới 20% tổng số dân Trung Quốc. Sau loạn Thái Bình Thiên Quốc, khu vực có người nói tiếng Ngô bị giảm chỉ còn khoảng 8%. Năm 1984, có khoảng 77 triệu người nói tiếng Ngô.